(网经社讯)5月19日消息，抖音近日发布关于“AI起号”专项治理行动的公告。公告称，近期，抖音开展专项行动治理“AI起号”现象，重点整治利用AI生成低俗猎奇视频、AI生成虚拟外国幼儿教育专家教授育儿内容、AI视频账号售卖教程、AI账号秘籍传授、引导规避平台AI标注、转让销售AI虚拟账号等行为。在平台站内，累计清理311条违规内容，针对心x甜、向xAi同城流量、瑞xxAI智习室等15个严重违规账号进行了封禁。

一、“AI起号”乱象：技术便利下的内容异化

网经社数字零售台（DR.100EC.CN）查询DeepSeek后获悉，“AI起号”指通过人工智能技术快速生成视频、打造虚拟人设，以实现账号流量变现的行为。此次抖音点名的违规案例中，三类现象尤为突出：

低俗内容工业化生产：AI批量生成猎奇、低俗视频，利用算法漏洞博取流量；

虚假人设欺骗用户：如虚构“外国育儿专家”人设，输出未经科学验证的内容牟利；

灰色产业链衍生：部分账号公然售卖“AI起号教程”或转让虚拟账号，形成黑产闭环。

这些行为不仅污染内容生态，更可能误导消费者、侵害未成年人权益。例如，虚假育儿建议可能对家庭造成实际危害，而AI生成的“完美人设”则加剧社会信任危机。

二、平台治理逻辑：从被动应对到主动防御

抖音此次行动反映了平台治理策略的升级：

技术识别与标注：通过AI水印、内容指纹等技术标记生成式内容，但违规者试图“规避标注”的行为增加了治理难度；

规则细化：将“AI起号”相关售卖、教学行为纳入违规范畴，切断黑产传播链；

跨平台协作：需联合电商、支付平台打击教程交易，避免治理“按下葫芦浮起瓢”。
然而，挑战依然存在。AI技术迭代速度远超规则更新，例如近期“深度伪造”（Deepfake）语音和视频的泛滥，使得虚假人设更难被普通用户识别。

三、行业启示：技术向善需多方共治

抖音的治理仅是AI内容乱象的“冰山一角”。长远来看，需构建三层防线：

平台责任前置：将AI内容审核嵌入创作工具端，例如自动拦截违规脚本或敏感关键词；

用户教育普及：增设“AI内容识别提示”，提升公众媒介素养；

立法与标准完善：我国需加快出台生成式AI内容管理办法，明确虚拟人设的法律责任。
国际经验亦可借鉴，如欧盟《数字服务法》要求平台对AI生成内容进行风险评估，美国加州已立法禁止选举前60天传播深度伪造视频。

AI技术本应是内容创作的“加速器”，而非扰乱秩序的“作弊器”。抖音此次治理传递出明确信号：技术应用不能突破伦理底线。未来，唯有平台、用户、监管方形成合力，才能让技术真正服务于优质内容的创造，而非短视的流量游戏。在创新与治理的平衡木上，规则的完善程度将决定我们能否走向一个更清朗的数字未来。